TensorFlow Lite(줄여서 TFLite)는 모바일·엣지(임베디드/IoT) 기기에서 머신러닝 모델을 경량·고성능으로 실행하기 위해 설계된 TensorFlow의 경량 런타임 및 도구 모음입니다. 주 목적은 제한된 메모리·연산 자원과 전력 환경에서 낮은 지연과 작은 바이너리 크기를 유지하면서 추론(inference)을 수행하는 것입니다. 주요 특징 - 경량 런타임(Interpreter): 디바이스에서 직접 .tflite 형식의 모델을 로드하고 실행하는 소형 런타임. C++ API를 기본으로 하고 Android(Java/Kotlin), iOS(Swift/ObjC), Python, C API 등을 제공. - 모델 형식(.tflite): FlatBuffers 기반의 최적화된 직렬화 형식으로, 파일 크기가 작고 로드가 빠릅니다. - 모델 변환기(TFLite Converter): TensorFlow에서 학습한 모델을 .tflite로 변환. 변환 과정에서 그래프 최적화와 양자화(quantization) 같은 최적화를 적용할 수 있음. - 최적화 기법: - 양자화(정밀도 축소: FP32→FP16/INT8 등)로 모델 크기와 메모리·연산량 감소. - 가중치/활성화 정밀도 조정, 그래프 축소(pruning/weight clustering) 등. - 하드웨어 가속(Delegate): CPU 외에 GPU, NNAPI(Android), Core ML(iOS), Edge TPU, Hexagon 등 하드웨어 가속기를 이용해 속도를 높이는 플러그인(Delegate) 구조를 지원. - 제한된 연산 및 커스텀 연산: 경량화를 위해 표준 연산 세트가 제한적일 수 있으며, 필요한 경우 커스텀 연산을 추가해 사용 가능. - 메타데이터 및 예제 유틸리티: 결과 해석(라벨 매핑 등)을 돕는 메타데이터 지원과 준비된 샘플·유틸리티 제공. 일반적인 워크플로우 1. TensorFlow/TensorFlow Keras에서 모델 학습. 2. TFLite Converter로 모델 변환 및 필요 시 양자화·최적화 적용. 3. .tflite 파일을 모바일/임베디드 앱에 포함. 4. TFLite Interpreter(및 적절한 Delegate)를 통해 디바이스에서 추론 실행. 장점 - 작은 런타임/모델 크기, 낮은 지연, 오프라인 추론 가능. - 다양한 플랫폼/언어 지원과 하드웨어 가속 연동. - 배터리·리소스 제약 환경에 적합. 제한·단점 - 학습(training)은 지원하지 않음(추론 전용). 학습은 TensorFlow 등에서 수행해야 함. - 일부 최신/복잡한 연산이 바로 지원되지 않을 수 있어 변환이나 커스텀 연산이 필요할 수 있음. - 양자화 등 최적화 시 정확도 손실 가능성 존재. 주 사용 사례 - 모바일 앱(이미지 분류, 객체 탐지, 음성 인식 등) - 임베디드·IoT 장치(센서 데이터 처리, 실시간 추론) - 프라이버시 민감·오프라인 환경에서의 추론 요구 상황 요약하면, TensorFlow Lite는 제한된 리소스 환경에서 빠르고 효율적으로 머신러닝 추론을 수행하도록 최적화된 TensorFlow 기반의 경량 런타임과 변환·최적화 도구 모음입니다.
